⚡ AiNews
⚡ 速览 🧠 模型
← 返回首页

#ai gateway

包含标签 "ai gateway" 的文章,共 1 篇。

🛠️ 开发工具 V2EX

GPT-Load 2.0 开源:轻量化自托管 AI 网关

开源 AI 网关 GPT-Load 2.0 完成重写。该工具解决开发者管理多个 AI 资源、API Key 和订阅时频繁切换的痛点。2.0 采用“导入资源、生成 AccessKey、直接调用”的极简工作流,自动处理凭据轮换、权重调度、失败重试、冷却、黑名单、会话亲和与健康检查。不同于面向收费分发的同类项目,它专注于个人与内部团队,将上游资源统一收纳至资源池进行调度、容错和观测。采用 Go 语言编写,提供带管理界面的单一二进制文件,默认使用 SQLite,无需 Redis 且不分离前后端,具备出色的轻量化特性与多平台适配能力。